Dựa theo một yêu cầu của Lục quân Đế quốc Nhật Bản vào tháng 12 năm 1937 cho một kiểu máy bay tấn công mặt đất, được đề nghị phát triển dựa trên kiểu Máy bay ném bom hạng nhẹ Ki-30, Mitsubishi đã sản xuất hai chiếc nguyên mẫu ký hiệu Mitsubishi Ki-51. Có hình dáng bên ngoài tương tự Ki-30, thiết kế mới nói chung có kích thước nhỏ hơn, buồng lái được thiết kế lại và đơn giản hơn để hai thành viên đội bay ngồi gần nhau. Vì không yêu cầu phải có khoang bom, cánh đơn được chuyển từ vị trí giữa sang gắn thấp, và động cơ được chọn là kiểu Mitsubishi Ha-26-II bố trí hình tròn. Việc bay thử nghiệm được thực hiện trong mùa hè năm 1939, sau đó được tiếp nối bằng 11 chiếc máy bay thử nghiệm hoạt động thực tế, tất cả được hoàn tất trước cuối năm đó. Một số cải tiến được thực hiện, nhưng quan trọng nhất là việc thêm vào khe cố định ở mép trước cánh để cải tiến việc điều khiển bay ở tốc độ thấp, và tăng cường vỏ giáp giữa động cơ và buồng lái.

Ngoài phiên bản tiêu chuẩn, cũng có những dự định phát triển phiên bản trinh sát chuyên dùng, trước mắt bằng cách cải tiến một chiếc Ki-51 thử nghiệm có buồng lái sau được thiết kế lại để trang bị máy ảnh trinh sát. Kết quả thử nghiệm tỏ ra khá hứa hẹn. Sau đó, có ba chiếc nguyên mẫu Ki-71 trinh sát chiến thuật được sản xuất dựa trên Ki-51, gắn động cơ Mitsubishi Ha-112-11 công suất 1.119 kW, càng hạ cánh xếp được, hai pháo 20 mm gắn trên cánh và các cải tiến nhỏ khác, nhưng chưa có chiếc nào được sản xuất hằng loạt.